Ollama 0.9.1
Ollama 0.9.1
๋๊ตฌ ํธ์ถ ๊ฐ์
์๋ก์ด ๋๊ตฌ ํธ์ถ ์ง์
๋ค์ ๋ชจ๋ธ๋ค์ ์ด์ ๋๊ตฌ ํธ์ถ์ ์ง์ํฉ๋๋ค:
- DeepSeek-R1-2508 (671B ๋ชจ๋ธ)
- Magistral
๋ค์ ๋ชจ๋ธ๋ค์ ๋๊ตฌ ํธ์ถ ์ ๋ขฐ์ฑ๋ ๊ฐ์ ๋์์ต๋๋ค:
๋ชจ๋ธ์ ์ฌ๋ค์ด๋ก๋ํ๋ ค๋ฉด ollama pull
๋ช
๋ น์ ์ฌ์ฉํ์ญ์์ค.
์๋กญ๊ฒ ์ ๋ณด์ด๋ macOS ๋ฐ Windows ๋ฏธ๋ฆฌ๋ณด๊ธฐ
macOS์ Windows์ฉ Ollama ์ ํ๋ฆฌ์ผ์ด์ ์ ์๋ก์ด ๋ฒ์ ์ ํ ์คํธํ์ฌ ์ด๊ธฐ ํผ๋๋ฐฑ์ ์๋ ดํ ์ ์์ต๋๋ค.
ํฅํ ์ถ์ ๋ฒ์ ์์ ๋ค์๊ณผ ๊ฐ์ ๊ฐ์ ์ฌํญ์ด ๋์ ๋ ์์ ์ ๋๋ค:
ํผ๋๋ฐฑ์ ์ ์ถํ๋ ค๋ฉด GitHub์ app
๋ผ๋ฒจ์ด ๋ถ์ ์ด์๋ฅผ ๋ฑ๋กํ์ญ์์ค. ์ด ์ฑ๋ค์ Ollama์ ํฅํ ๋ฒ์ ์ผ๋ก ์๋ ์
๋ฐ์ดํธ๋๋ฏ๋ก, ์๋ก์ด ๋ฏธ๋ฆฌ๋ณด๊ธฐ ๋ฒ์ ์ ๋ค์ ๋ค์ด๋ก๋ํด์ผ ํ ์ ์์ต๋๋ค.
์๋ก์ด ๊ธฐ๋ฅ
- ๋คํธ์ํฌ ์์์ Ollama ๋ ธ์ถ: Ollama๋ฅผ ์ด์ ๋คํธ์ํฌ์ ๋ ธ์ถ์ํฌ ์ ์์ด ๋ค๋ฅธ ๋๋ฐ์ด์ค๋ ์ธํฐ๋ท์ ํตํด ์ ๊ทผ์ด ๊ฐ๋ฅํฉ๋๋ค. ์ด๋ ์ฑ๋ฅ์ด ๋ฎ์ ๋๋ฐ์ด์ค์์ ๊ฐ๋ ฅํ Mac, PC ๋๋ Linux ์ปดํจํฐ์์ ์คํ ์ค์ธ Ollama๋ฅผ ์ฌ์ฉํ๋ ค๋ ๊ฒฝ์ฐ์ ์ ์ฉํฉ๋๋ค.
- ๋ก์ปฌ ๋ธ๋ผ์ฐ์ ์ ๊ทผ ํ์ฉ: ๋ก์ปฌ Ollama ์ค์น๋ณธ์ ์น์ฌ์ดํธ์์ ์ ๊ทผํ ์ ์๋๋ก ํฉ๋๋ค. Ollama์ JavaScript ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ์ฌ์ฉํ๋ ๋ธ๋ผ์ฐ์ ๊ธฐ๋ฐ ์ ํ๋ฆฌ์ผ์ด์ ๊ฐ๋ฐ์ ์ ์ฉํฉ๋๋ค.
- ๋ชจ๋ธ ์ ์ฅ๊ฒฝ๋ก: ๋ชจ๋ธ์ ์ธ์ฅ ํ๋๋์คํฌ๋ ๊ธฐ๋ณธ ๋๋ ํ ๋ฆฌ์ ๋์ ์์น์ ์ ์ฅํ ์ ์๋๋ก ๋ชจ๋ธ ์ ์ฅ ๊ฒฝ๋ก๋ฅผ ์์ ํ ์ ์์ต๋๋ค.
- ์ ์ ์ฉ๋ ๋ฐ macOS์์ ๋น ๋ฅธ ์์: macOS ์ฑ์ ์ด์ ๋ค์ดํฐ๋ธ ์ ํ๋ฆฌ์ผ์ด์ ์ผ๋ก ํจ์ฌ ๋น ๋ฅด๊ฒ ์์๋๋ฉฐ ํจ์ฌ ์ ์ ์ค์น ๊ณต๊ฐ์ ์๊ตฌํฉ๋๋ค.
๋ณ๊ฒฝ์ฌํญ
- Magistral ๋ชจ๋ธ์ ์ด์ '์ฃผ์ ์ค๋ช ๋ชจ๋'๋ฅผ ๋นํ์ฑํํ ์ ์๊ฒ ๋์์ต๋๋ค. ์ฐธ๊ณ : ์ด ๊ฒฝ์ฐ ์์คํ ํ๋กฌํํธ๋ฅผ ๋ณ๊ฒฝํ๋ ๊ฒ์ด ๊ถ์ฅ๋ฉ๋๋ค.
- ์ด์ ์
POST predict
๋ผ๊ณ ํ์๋ ์ค๋ฅ ๋ฉ์์ง๊ฐ ์ด์ ๋ ๋ง์ ์ ๋ณด๋ฅผ ํ์ํฉ๋๋ค. - ์ผ๋ถ ๋ชจ๋ธ์ ๋๊ตฌ ํธ์ถ ์ ๋ขฐ์ฑ ๊ฐ์
- Windows์์
ollama run
๋ช ๋ น์ผ๋ก Ollama๊ฐ ์๋์ผ๋ก ์์๋์ง ์๋ ๋ฌธ์ ์์
์ ์ฒด ๋ณ๊ฒฝ ๋ด์ญ: https://github.com/ollama/ollama/releases/tag/v0.9.1